Hải quân Nhật Bản đã sử dụng năm tàu ngầm loại nhỏ lớp Ko-hyoteki trong trận Trân Châu cảng nhưng đã không thành công trong việc tiêu diệt bất kì một chiến hạm nào của Hoa Kỳ. Các tàu ngầm này hoạt động không ổn định và khả năng các thủy thủ sống sót sau các cuộc tấn công là quá ít. Hải quân Nhật hy vọng rằng việc cải tiến cho loại tàu này, tăng cường huấn luyện thủy thủ và chọn những mục tiêu ít được bảo vệ sẽ làm tăng kết quả đạt được và khả năng sống sót của các thủy thủ sau mỗi nhiệm vụ sẽ cao hơn (ngoại trừ việc tấn công tự sát).[20] Vì thế vào ngày 16 tháng 12 năm 1941, hải quân Nhật Bản đã lên kế hoạch cho một cuộc tấn công thứ hai của loại tàu ngầm nhỏ này.[20]

Trong kế hoạch này có đề cập đến hai tình huống tấn công là tấn công tàu của quân Đồng Minh trên biển Ấn Độ Dương và lên phía Nam biển Thái Bình Dương.[3] Các cuộc tấn công này là động thái nghi binh làm quân Đồng Minh không chú ý đến kế hoạch tấn công đảo Midway của người Nhật ở phía Bắc Thái Bình dương, Nhật Bản hy vọng sẽ dụ được quân Đồng Minh tin rằng Nhật Bản chỉ chú ý đến việc tấn công phía Nam và phía Tây những vùng mà họ vừa chiếm được.[21] Mười một tàu ngầm thuộc đội tàu ngầm thứ 8 đã thực hiện hai cuộc tấn công, năm tàu ngầm tham gia nhóm tàu ngầm tấn công phía Tây tại Ấn Độ Dương và sáu tàu ngầm còn lại tham gia nhóm tàu ngầm tấn công phía Đông tại Thái Bình Dương.[1] Các nhóm tàu ngầm này đã được quyền chọn các mục tiêu tấn công các cảng tùy thuộc vào khả năng trinh sát của chúng.

Nhóm tàu ngầm tấn công phía Tây đã chọn cảng Diégo-Suarez ở Madagascar[22]. Cuộc tấn công này xảy ra vào lúc sẩm tối ngày 30 tháng 5 và đạt được kết quả là làm bị thương thiết giáp hạm HMS Ramillies và đánh chìm tàu chở dầu British Loyalty, 22 ngày sau khi quân Anh đánh chiếm cảng này từ tay chính phủ Vichy Pháp trong giai đoạn đầu của Trận Madagascar.[12]

Bốn mục tiêu có tiềm năng của nhóm tàu ngầm tấn công phía Đông là Nouméa, Suva, Auckland và Sydney.[5] I-21 và I-29 đã đi thị sát để lựa chọn mục tiêu có tiềm năng nhất để tấn công tấn công và chiếc I-29 đã chọn Sydney.[4] Vào đêm 16 tháng 5, I-29 đã tấn công tàu một tàu buôn của Nga là Wellen trọng tải 5.135 tấn ngoài khơi cách Newcastle của New South Wales 48 km. Mặc dù chiếc Wellen đã chạy thoát với chỉ vài hư hỏng nhẹ, tất cả mọi chuyến tàu giữa Sydney và Newcastle đã bị đình lại trong 24 giờ trong khi các máy bay và mọi tàu săn tàu ngầm từ Sidney, bao gồm cả tàu tuần dương hạng nhẹ của Hà Lan HNLMS Tromp, khu trục hạm Úc HMAS Arunta và khu trục hạm của Hoa Kỳ USS Perkins đã tham gia tìm kiếm chiếc tàu ngầm đã tấn công nhưng bất thành.[6] Muirhead-Gould đã đưa ra kết luận rằng chiếc tàu ngầm đã hành động một mình và rời khỏi vùng biển ngay sau khi tấn công.[23]

Thủy phi cơ của I-29 đã bay trinh sát trên bầu trời Sydney vào ngày 23 tháng 5.[24] Một trạm rada bí mật đặt tại Iron Cove đã phát hiện ra nó tuy nhiên chính quyền thành phố lại coi đó chỉ là một trục trặc kỹ thuật, vào thời điểm đó chẳng có máy bay nào của quân Đồng Minh hoạt động tại Sydney.[25] Chiếc máy bay này sau đó đã bị hư hại hoặc bị phá hủy trong khi hạ cánh, nhưng cả hai người thuộc phi hành đoàn của nó đều sống sót.[26] Phi công đã báo cáo rằng có sự xuất hiện của những tàu lớn bao gồm hai thiết giáp hạm hoặc tàu tuần dương hạng nặng, năm tàu chiến lớn khác, vài tàu chiến nhỏ và các ca nô tuần tra, nhiều tàu buôn các loại đang thả neo tại cảng.[27] Có báo cáo rằng mạng lưới của cục tình báo hải quân (FRUMEL) của quân Đồng Minh đã bắt được các tín hiệu cho thấy rằng hải quân Nhật Bản đã chọn Sydney làm mục tiêu tấn công thích hợp.[27][28] Ba tàu ngầm trang bị tàu ngầm loại nhỏ đã đến tập hợp với hai chiếc I-21 và I-29 cách Sydney Heads khoảng 56 km về hướng Đông Bắc, cả năm tàu đến điểm tập kết vào ngày 29 tháng 5.[29]